Meta processa criador da tecnologia do aplicativo "nudify"

A Meta disse na quinta-feira que está processando um fabricante de aplicativos que usa inteligência artificial para simular imagens nuas de pessoas reais que aparecem vestidas nas fotos.

A Meta informou que entrou com uma ação judicial em Hong Kong contra a Joy Timeline HK Limited, a entidade por trás do aplicativo CrushAI, para impedi-la de anunciar os aplicativos CrushAI nas plataformas Meta.

"Esta ação judicial ressalta a seriedade com que encaramos esse abuso e nosso compromisso em fazer tudo o que pudermos para proteger nossa comunidade", afirmou a Meta em um comunicado. "Continuaremos a tomar as medidas necessárias — que podem incluir ações judiciais — contra aqueles que abusam de nossas plataformas dessa forma."

A ação legal ocorre depois que a Joy Timeline fez "múltiplas tentativas" de contornar o processo de revisão de anúncios da Meta, alega a Meta.

Anúncios dos chamados aplicativos de nudismo apareceram nas plataformas do Meta no Facebook e Instagram, apesar de violarem as políticas de publicidade das redes sociais. A CrushAI, que cria os aplicativos, promoveu ferramentas de IA que, segundo ela, permitem que os usuários carreguem fotos e "vejam qualquer pessoa nua", segundo uma investigação da CBS News .

A Meta afirmou que a empresa proíbe "imagens íntimas não consensuais" em suas plataformas. A empresa havia informado anteriormente à CBS News que removeu anúncios da tecnologia de nudez, excluiu páginas de suas plataformas que veiculam os comerciais e bloqueou permanentemente sites associados aos aplicativos.

A Meta anunciou na quinta-feira que compartilhará informações, incluindo URLs de anúncios, sobre entidades que violam suas políticas com outras empresas de tecnologia por meio do Programa Lantern da Tech Coalition, que rastreia comportamentos que violam suas regras de segurança infantil. Desde março, a Meta fornece ao programa informações sobre mais de 3.800 sites que são compartilhadas com outras empresas de tecnologia, de acordo com a empresa.

A Meta afirmou que os anunciantes de aplicativos de nudez usam vários meios para evitar a detecção em suas plataformas, incluindo o uso de imagens inofensivas para tentar burlar a tecnologia usada para identificar esses anúncios em seus sites. Como resultado, a empresa desenvolveu uma tecnologia melhor para detectar anúncios de aplicativos de nudez que são apresentados como inofensivos, afirmou a Meta na quinta-feira.

"Trabalhamos com especialistas externos e nossas próprias equipes de especialistas para expandir a lista de termos, frases e emojis relacionados à segurança que nossos sistemas são treinados para detectar com esses anúncios", disse Meta.

Emmet Lyons contribuiu para esta reportagem.